Sekembalinya dari perjalanannya, beliau dilantik sebagai pegawai istana yang akhirnya membawanya kembali dalam perjalanan dinas yang kali ini menuju provinsi Hunan dan Sichuan.[3] Beliau berjalan melalui provinsi Guichuan, Guangxi, Yunnan, dan Kunming.[3] Kemudian mengunjungi bahagian barat daya China tempat suku Yi tinggal dan kemudian beliau kembali pulang ke ibukota saat ayahnya dalam keadaan tenat akibat penyakit yang dideritanya.[3][4] Di saat ayahnya menghebuskan nafas terakhir, dia meminta Qian agar meneruskan usaha para leluhurnya sebagai seorang Sejarawan Agung[2] sepertimana yang dilakukan Kongzi yang telah mencatat peristiwa penting sepanjanh 500 tahun pertama dalam catatan musim bunga dan musim gugur namun setelah 500 tahun setelah kematian Konfusius, tidak ada yang tertarik terhadap sejarah.[2] Ayahnya memintanya untuk melengkapi Catatan Musim Bunga dan Musim Luruh yang telah dikerjakan Kongzi yakni catatan 500 tahun yang berikutnya.[2] Sima Qian sendiri berusia 36 tahun saat ayahnya meninggal dunia.[2][4]

Tiga tahun kemudian, Sima Qian menggantikan mendiang ayahnya sebagai sejarawan agung kenegaraan.[2] Dalam posisi ini, beliau bisa membaca semua catatan dan dokumen bersejarah milik istana.[2] Pada tahun 104 SM, Sima Qian mula menggunakan waktu senggangnya untuk menulis suatu catatan yang menyeluruh mengenai sejarah kerajaan-kerajaan Tionghua.[2]